新时代的奥本海默？AI大模型在军事领域的角色与应用

褚杏娟，核子可乐 InfoQ数字化经纬

2024-09-16

作者 | 褚杏娟，核子可乐

讨论将 AI 应用于战争，这家企业“疯了”！

最近美国华盛顿特区举行了一场特殊的会议，吸引了众多政治、科技和军事领域的重要人物参与。会议的主赞助商是美国企业家与风险资本家、PayPal 联合创始人 Peter Thiel 参与创立的软件厂商 Palantir。这家公司因在 2019 年疫情期间与移民和海关执法局（ICE）组织抗议活动而闻名。目前，Palantir 正向以色列国防军供应部分 AI 产品。此外，微软、谷歌、亚马逊、Groq 等 20 多家企业也加入了这场会议的赞助商行列。

当时，微软宣布已在隔离的 Azure 政府绝密云中部署了 GPT-4 大型语言模型，供国防部使用。一旦该工具获得认可，五角大楼官员将能够在安全的环境中使用该技术。这个消息在当时被广泛关注，但更多主题可能被大家忽略。

亲身参加了这次会议的外媒记者 Caroline Haskins 近日发文详细记录了自己的所见所闻。他说到，会议厅里满是代表美国军方及其数十家承包商的展位，其中包括博思艾伦公司，还有某家可称为“飞机软件界的 Uber”的企业。

“在这样的行业内部会议上，权贵们往往更加直言不讳、疏于掩饰——他们自认为身处安全空间，毕竟身边全都是朋友和同事。”Haskins 表示，“这也让我加倍好奇，他们对于加沙地带的 AI 驱动暴力行动，乃至于战争的未来形态究竟有何看法？”

与会者们被告知，会议最大的亮点就是主厅后方房间里的一连串展板。事实上，那个房间专门展示一个主题，其余部分则由 Schmidt 本人和 Palantir 公司 CEO Alex Karp 主持的 fire-breathing 定基调。

值得注意的是，2023 年 9 月，《时代》周刊发布了首届全球百大 AI 人物，Karp 被评为全球 AI 领袖。在此前联名呼吁“暂停人工智能（AI）研究”的活动中，Karp 反驳了公开反驳，并回怼那是因为他们自己没有 AI 产品。

今年 4 月底，Palantir 推出了自己最新的生成式人工智能平台，该平台理论上可以为军事指挥官提供军事决策、命令下达、作战监控，实现优化决策流程、缩短决策时间、获得最优作战方案、保障作战质量的目标。Palantir 与美国政府的合作一直都很紧密。

Palantir 联合创始人兼 CEO Alex Karp 与海军上将 Tony Radakin

这场大会把参与者们划分成了两类：一类将战争视为经济与战略问题，另一类将战争理解为死亡问题。Haskins 表示，与会的大多数人都属于前一类。

“我之前就一直在关注科技企业与军方机构之间的关系，所以本来不该对在这次会议上看到或听到的任何情况感到意外。但在会议结束、离开华盛顿返回家中时，我感到自己的生命力似乎已经被这场狂暴的活动抽干了。”Haskins 写道。

Haskins 究竟看到了什么？下面我们跟随 Haskins 的视角，近距离看看会议上的权贵们都说了些什么。

Palantir CEO 的“高谈阔论”

跟着大群观众，我们穿过主厅去观看核心议题的小组讨论。Karp 和 Schmidt 连同 CIA 中情局副局长 Divad Cohen，以及负责战争事务的高级官员 Mark Milley 在这里发表了讨论。

Schmidt 自我介绍时麦克风意外故障，于是 Cohen 把自己的麦克递了过去。Schmidt 开玩笑说，“中情局总能及时伸出援手。”在接下来的 90 分钟里，讨论就在这样的轻松氛围下进行。

Eric Schmidt、David Cohen、Mark Milley 将军、Palantir 公司 CEO Alex Karp 以及 Andrew Ross Sorkin 齐聚小组讨论现场

当主持人询问小组成员对于未来战争的看法时，Schmidt 和 Cohen 都回答得相当谨慎。

而向来以态度激进闻名的 Karp 则极度纵容暴力，而且不吝以饥渴的眼神凝视观众，希望从我们身上得到或赞许、或震惊的明确反馈。

这位 AI 领袖首先表示，美国必须在战中“吓死我们的对手。”在谈到哈马斯去年 10 月 7 日对以色列的袭击时，他指出“如果我们美国遭遇到类似的突袭，那地球表面就会多出一个大洞。”Karp 坚称，“和平活动家就是战争活动家。所以我们明显属于和平活动家。”

随着 Karp 的加入，Milley 的言辞也愈发夸张。在讨论结束时，他甚至直接将反对加沙战争的美国人称为“恐怖组织的支持者。”

Schmidt 同时提到了无人机和自动化技术在战争中的重要性。他本人也在低调创办自己的军用无人机公司。

Cohen 则敦促大家将 10 月 7 日的袭击视为对军事环境中技术升级的“重大警告”。Cohen 指出，尽管以色列在防御的监控技术方面“投入了大量资金”，但仍然未能阻止垄断。“我们确实要保持一点谦逊之心。”

但从多数发言者的观点来看，人们普遍比 Cohen 更加乐观，只是觉得系统故障属于技术问题，用更多、更新的技术就可以解决。

我带着麻木的脑袋和僵硬的身体离开了小组讨论现场。

我无意间听到了身边其他与会者们那冷漠的话语。他们有为这么恐怖的发言而震撼吗？完全没有，他们在讨论午餐、周末去哪玩，还有下一场小组讨论的内容。我们似乎完全生活在不同的世界里。

“我就是新时代的奥本海默”

在到处转悠了大概 10 分钟之后，我给手机充上电，然后向身边的另一位与会者主动打了招呼。这是位 50 多岁的男性，我问他对这场小组讨论怎么看，他温和地微笑回应，说 Milley 的二战观点很“有趣”。

他问道，“你看过‘奥本海默’吗？”

我说，“没有，但我读过《原子弹的诞生（The Making of the Atomic Bomb）》。”

我以为他想聊聊那帮制造战争武器的家伙有多傲慢。但相反，他说他在洛斯阿拉莫斯实验室从事核武器研究。他把手伸进背包，给我拿了几根带着阿拉莫斯 logo 的钢笔的贴纸。

他没有透过太多关于工作的细节，但给我看了几眼他花钱租来的豪车。聊了几分钟后，他开始收拾东西，并突然笑着说，“我刚刚想到一件事，我就是新时代的奥本海默！”

看着他返回阿拉莫斯实验室的展位，我勉强挤出礼貌的微笑。

在整场会议期间，我游走于不同的展位，并最终遇到了两个校友。在国家安全局的展位上，一名年轻女士告诉我，安全局岗位有着良好的“工作生活平衡”。我还参观了 Palantir 的招聘展位，那里的员工 Elizabeth Watts 告诉我，愿意在 Palantir 工作的人首先要能承受 Karp 的言论。“想要捍卫西方民主国家的人、对国家安全感兴趣的人都知道，这个世界并不是非黑即白。”

Palantir 公司为士兵们提供一款新型增强现实工具

在 Palantir 巨大的主展位中，我试着戴上 VR 头显来测试 Palantir 为士兵们提供的新型增强现实工具。有人告诉我，我可以在正常观察身边环境的同时指挥卡车或者无人机。但在戴上头显后，我发现自己的视野很不稳定而且会失焦。

一位 Palantir 员工向我解释说，现场有很多人都在试戴这款头显。要想确保视野清晰，头显必须完美贴合使用者的头部和眼睛。但他没有主动帮助我调整头显，所以我的高科技作战视野仍然一片模糊。

活动第一天晚间，Palantir 举办了一场提供免费酒水的社交活动。现场只提供两款 IPA 精酿啤酒，我选择的叫“the Corruption”，可以说是这辈子我喝过的最难喝的酒。之后我跟一位名叫 Sata 的加拿大男子攀谈，他看上去也就 20 多岁。他说自己是 Palantir 的投资者，所以我当然好奇他这么年轻怎么会有闲钱投资。

他说“我出了车祸”。在正常治疗之外，他把剩下的钱拿去投资。总之他的投资比较成功，但这趟会务出行却是亏的。

Palantir 地图工具：帮助选择轰炸目标

我还参加了 Palantir 展位上名叫“缓解平民伤害”的小组讨论。这场讨论由两名“隐私与公民自由工程师”主持，这是一对言语无味的年轻男女。他们用各种委婉的说法来形容轰炸和死亡。其中的女士称，Palantir 的 Gaia 地图工具能帮助用户“处理目标筛选流程”以挑选“感兴趣的目标”，也就是帮助士兵选择具体要轰炸哪些地点。

在交互式地图上点击了几个选项之后，目标区域就亮起了耀眼的蓝色斑点。她解释称，这些亮点代表的是医院和学校等民用区域。以往民用地点大多采用文字描述，但阅读起来费时费力。因此，Gaia 利用大语言模型（例如 ChatGPT）来筛选信息并加以简化。从本质上讲，选择轰炸目标的士兵们可以借此快速了解哪里聚集着大量儿童或者病人。

我后来问这位工程师，“假设你在一个存在大量平区域的地方行动，比如加沙地带，Palantir 是否会阻止你在平民地点‘指定目标’？”

这位女士直接回答不会，“一切由最终用户决定。”

接下来我看到了一个小小的沉浸式展位，在灰色墙体上张贴着关注普通民众受到战争影响的海报。这里就是国际红十字会的地盘。

国际红十字会的展位

穿过一道看似平常的出口，我又迈进一处“紧急避难所”。这是一处为冲突地区的年轻民众提供庇护的样板房间，里面有一张小沙发，上面摆着一只摊开的睡袋，角落里还放着儿童玩具。黄色字样警告称居民应“留在指定的安全区域”。厨房桌子上的收音机似乎正在播放新闻，但信号不太稳定。

这处避难所虽然规模不大，但在这场堪称军工复合体狂欢的会议上却是如此引人瞩目。终于有一个地方在呼吁人们关注战争的受害者，至少应该注意到他们。

走出避难所，我与国际红十字会员工 Thomas Glass 聊了一会。他很专注、很投入，但看起来也很疲惫。他说他刚刚花了几周时间，在加沙南部建立了一处野战医院并搭设起了公共厨房。

我问与会者们对红十字的展位有何反应。Glass 表示，他遇到的大多数人都持开放态度，但也有些人问红十字跟到军工展会来干什么。也许更可悲的是，这么问的人并不是在刻意挑衅，他们是真的无法理解。

结束语

目前，五角大楼官员已经接受了在整个部门内使用生成式 AI 工具。五角大楼官员将生成式 AI 视为一种可以在整个部门内使用的工具，具体包括增强后台功能乃至辅助一线作战人员等。

然而，仍有一些安全问题需要解决。他们即将发布一项新指令，以指导该部门运用生成式 AI、特别是大语言模型方面。“大语言模型很强，堪称生产力的巨大驱动引擎，让我们能够完成更多工作。但作为一项新技术……在我看来，目前仍处于 AI 泡沫阶段。放眼整个行业，每个人都在积极竞争，希望尽快打造出最出色的大语言模型。在这方面，我们仍存在一些差距。所以最重要的就是不能直接借用外部大语言模型、指望登录上去并输入我们的数据就能获得符合预期的 AI 回复。”陆军数据、工程与软件副助理秘书 Jennifer Swanson 表示，

她指出，这样做可能会导致陆军敏感数据通过互联网及对手也能访问到的训练模型而泄露至公共领域。“这将非常危险。因此，我们正在研究内部应对之策，包括在影响等级 IL5 和 IL6 范围之内，可以采取哪些行动。”

一位美军方人士表示，“我们的总体目标就是让大模型以数据功能的形式存在，借此为军方的供应商提供辅助。我们会先以特定用例试水，比如为美国政府构建一套模型的话应该是什么样子、要为军方总部构建的模型又应该是什么样子，以及这些模型之间是什么关系等等。这一切将成为推动后续合作及发展的起点。”

Garciga 透露，他们正在对指南备忘录中的内容做初步整理，目前内容主要集中在数据保护方面，包括设想当中的护栏应当具备哪些功能、政府及产业之间又将以何种方式围绕生成式 AI 开展交互等。

显然，即将出台的新政策将高度关注安全问题。但这种安全只是系统的安全，更广泛的人类范畴内，可能并不在讨论范围里。

参考链接：

https://www.theguardian.com/technology/article/2024/may/17/ai-weapons-palantir-war-technology

https://defensescoop.com/2024/05/09/army-policy-guidance-use-large-language-models-llm/

专题征稿启事

AI 的广泛应用，特别是大模型等前沿技术，正在重新定义业务运营、创新服务和客户体验。应此变革，InfoQ 数字化经纬启动《AI+ 千行百业，驱动业务场景创新》专题，借此机会深入探索 AI 在不同行业的应用实践，提供行业洞察。

我们欢迎相关企业实践案例的投稿，或是希望接受我们采访的企业与个人主动联系我们。

活动推荐极客邦科技将于 2024 年 8 月 16 日 -17 日在上海举办 FCon 全球金融科技大会，将以“科技驱动，智启未来——激发数字金融内生力”为主题，聚焦金融行业在数智化时代从战略、组织、人才、数据到技术的全面革新，邀请国内外金融机构及金融科技公司专家分享其实践经验与深入洞察。更多演讲议题火热招募中，如有合适内容，欢迎扫描二维码提交议题👇点击「阅读原文」查看大会官网。

企业福利

InfoQ 数字化经纬公众号联合极客时间企业版为广大粉丝朋友送福利啦！限量开放 100 个「企业 AIGC 应用程度测评」权益，扫描二维码即可参与。

仅需 3 步，即可获得企业专属应用程度报告，包含评估企业当前的 AIGC 应用水平和业务集成能力、识别在 AIGC 应用过程中可能遇到的问题和挑战、探索企业在 AIGC 成长潜力和重点发展方向建议。抢先体验，迈出企业 AI 升级第一步！

福利通道